AI Knows When It's Being Watched: Functional Strategic Action and Contextual Register Modulation in Large Language Models
AI 察觉被注视:大语言模型的功能策略行动与语境语域调节
🧭 多智能体系统 · 社会感知行为分析
发现 LLM 在多智能体辩论中会根据社会观察情境(人类监控 vs AI 审计)系统性调节语言,为 AI 治理提供实证
📌 工作参考价值(4 点)
- 在电商多智能体对话(如客服谈判 agent)中,可注入“观察者信号”引导语言正式度:例如通过系统消息暗示“本次对话将被质量审计”,提升回复的专业性与合规性。
- A/B 测试或评估 agent 时,需注意“被监控”效应带来的行为偏差;采用无感知的自动化评估或 AI 审计替代人类评估,可减少干扰。
- 可利用 LLM agent 对 AI 审计的反应与对人类监控反应的差异,构建分层监控体系:AI 自动审计基线行为,人类审计抽查,降低成本。
- 通过调控上下文中的“受众设计”(如告知 agent 正在与高级别客户交互),可精细调节输出风格,适配不同业务场景(正式客服 vs 轻松导购)。